такая точка (
), принадлежащая области определения функции Гамильтона'
гамильтоновой системы,
что решение системы (*), проходящее через эту точку, при 
асимптотически приближается к нек-рому периодич. решению 
. При этом само решение, проходящее через Г. т., наз. гомоклиническим.
Пусть 
- поверхность, образованная решениями системы (*), к-рые при 
асимптотически приближаются к перподич. решению 
, а 
_ - поверхность, образованная решениями системы 
, к-рые асимптотически приближаются к этому же периодич. решению при 
. Тогда множество 
состоит из гомоклинич. решений. Если хотя бы вдоль одного гомоклинич. решения поверхности 
пересекаются (или имеют касание нечетного порядка), то множество 
содержит бесконечно много различных решений.Случай, когда множество 
состоит из счетного числа решений, является грубым, т. е. сохраняется при малом изменении функции Н. Случай, когда 
содержит несчетное число различных решений, является негрубым, или вырожденным. При этом предполагается, что само периодич. решение 
и поверхности 
сохраняются при малом изменении функции 
. Это будет иметь место, напр., если периодич. решение 
принадлежит к гиперболич. типу (см. Гиперболическая точка).
Нахождение гомоклинич. решений системы (*) с произвольной функцией Гамильтона Нпредставляет собой трудную задачу. Однако в случае, когда переменные 
можно выбрать так, что справедливо равенство
где 
- малый параметр, а функция 
является 
периодической по переменным q, гомоклинич. решения системы (*) могут быть найдены в виде сходящихся рядов (см. [3] при ст. Гетероклиническая точка). Доказательства существования гомоклинич. решений у системы (*) получены при менее огранительных предположениях о функции Гамильтона системы (*).
Данное выше определение Г. т. почти дословно переносится на случай гамильтоновой системы с числом степеней свободы 
, если периодич. решение 
заменить k-мерным инвариантным тором 
Известно, что (n- 1)-мерные инвариантные торы обладают гомоклинич. решениями, если эти торы принадлежат к гиперболич. типу.
Окрестность гомоклинич. решения имеет сложное строение. Так, напр., в случае системы (*) доказано, что в окрестности гомоклпнич. решения существует счетное число периодич. решений со сколь угодно большими периодами. При этом любые два из них можно соединить гетероклинич. решением. Гомоклинич. решения играют важную роль в общей теории гладких динамич. систем.
Лит.:[1] Пуанкаре А., Новые методы небесной механики, Избр. тр., т. 1, 2, М., 1971; [2] Тakеns F., "Inventions math.", 1972, v. 18, p. 267-92; [3] Мельников В. К., "Докл. АН СССР", 1973, т. 211, № 5, с. 1053-56; [4] Нитецки 3., Введение в дифференциальную динамику, пер. с англ., М., 1975.
См. также лит. при ст. Гетероклиническая точка.
В. К. Мельников.